Отвореното писмо на вътрешните лица на OpenAI предупреждава за „сериозни рискове“ и призовава за защита на подателите на сигнали

Група вътрешни лица на OpenAI упорстват фирмите за изкуствен интелект да бъдат доста по-прозрачни по отношение на „ сериозните опасности “ на AI – и да пазят чиновниците, които показват опасения по отношение на технологията, която построяват.

„ Компаниите с изкуствен интелект имат мощни финансови тласъци да заобикалят ефикасен контрол “, гласи отвореното писмо, оповестено във вторник, подписано от сегашни и някогашни чиновници на компании с изкуствен интелект, в това число OpenAI, основателят зад вирусния инструмент ChatGPT.

Те също по този начин приканиха фирмите за изкуствен интелект да предизвикват „ просвета на открита рецензия “, която приветства, вместо да санкционира, хората, които приказват за своите опасения, изключително когато законът се бори да навакса бързо напредващите технологии.

Компаниите са признали „ сериозните опасности “, подбудени от AI – от операция до загуба на надзор, известна като „ сингулярност “, която би могла евентуално да докара до изгубване на хората – само че те би трябвало да вършат повече, с цел да образоват обществеността за рисковете и ограниченията за отбрана, написа групата.

Според настоящия закон чиновниците на AI споделиха, че не имат вяра, че фирмите с AI ще споделят сериозна информация за технологията непринудено.

Следователно е от значително значение актуалните и някогашните чиновници да приказват – и фирмите да не постановат съглашения за „ неуважение “ или по различен метод да отмъщават на тези, които показват угриженост, обвързвана с риска. „ Обикновената отбрана на лицата, подаващи сигнали за нередности, е незадоволителна, тъй като се концентрира върху противозаконна активност, до момента в който доста от рисковете, за които сме загрижени, към момента не са контролирани “, написа групата.

Тяхното писмо идва, до момента в който фирмите се придвижват бързо към внедряване на генеративни AI принадлежности в своите артикули, до момента в който държавните регулатори, фирмите и потребителите се борят с виновната приложимост. Междувременно доста софтуерни специалисти, откриватели и водачи приканиха за краткотрайна пауза в конкуренцията с ИИ или държавното управление да се намеси и да сътвори мораториум.

Отговорът на OpenAI

В отговор на писмото, представителят на OpenAI сподели на CNN, че се „ гордее с нашия опит, предоставящ най-способните и най-безопасни AI системи и има вяра в нашия теоретичен метод за справяне с риска, добавяйки, че компанията е съгласна, че „ строгият спор е от решаващо значение, като се има поради смисъла на тази технология. "

OpenAI означи, че има анонимна гореща линия за честност и Комитет за сигурност и сигурност, управителен от членове на неговия ръб и водачи по сигурността от компанията. Компанията не продава персонална информация, не построява потребителски профили или употребява тези данни, с цел да насочва към някого или да продава нещо.

Но Даниел Зиглер, един от уредниците зад писмото и ранен инженер по машинно образование, работил в OpenAI сред 2018 година и 2021 година, сподели пред CNN, че е значимо да останем скептични към уговорката на компанията за бистрота.

„ Наистина е мъчно да се каже извън какъв брой съществено те одобряват уговорките си за оценки на сигурността и откриване на публичните вреди, изключително откакто има толкоз мощен търговски напън да се работи доста бързо “, сподели той. „ Наистина е значимо да имате вярната просвета и процеси, тъй че чиновниците да могат да приказват по целеви способи, когато имат терзания. “

Той се надява, че повече експерти в AI промишлеността ще излязат обществено със своите опасения вследствие на писмото.

Междувременно се чака Apple да разгласи партньорство с OpenAI на годишната си международна конференция за разработчици, с цел да внесе генеративен AI в iPhone.

„ Виждаме генеративния AI като основна опция в нашите артикули и имаме вяра, че имаме преимущества, които ни отличават тук “, сподели изпълнителният шеф на Apple Тим Кук по време на последното позвъняване за приходите на компанията при започване на май.